Ще ни помогне ли AI или ще ни навреди? Голям международен доклад казва, че не е сигурно
В голям международен доклад за безопасността на изкуствения интелект се казва, че експертите не могат да се споразумеят за риска, който представлява технологията – и не е ясно дали AI ще ни помогне или ще ни навреди.
Докладът, председателстван от канадския Йошуа Бенгио, заключава, че „бъдещата траектория на ИИ с общо предназначение е изключително несигурна."
Той казва, че „широк диапазон от траектории“ са възможни „дори в близко бъдеще, включително както много положителни, така и много отрицателни резултати.“
Докладът беше поръчан на миналогодишната среща на върха за безопасността на изкуствения интелект, домакин на Обединеното кралство, първата глобална среща за изкуствения интелект.
Обединеното кралство поиска Бенджио, наречен „кръстник“ на ИИ и който е научен директор в Мила, Института за ИИ в Квебек, да председателства доклада. Беше публикуван преди друга глобална среща на върха за ИИ, която ще се проведе в Сеул, Южна Корея, следващата седмица.
„Знаем, че напредналият ИИ се развива много бързо и че има значителна несигурност относно това как те усъвършенстваните AI системи могат да повлияят на начина, по който живеем и работим в бъдеще,” пише Bengio в доклада.
Имейлът, от който се нуждаете за най-важните новини за деня от Канада и по света.Правителството на Обединеното кралство заяви в прессъобщение от петък, че докладът е „първият по рода си независим международен научен доклад“ за безопасността на изкуствения интелект и че той ще „изиграе съществена роля“ в информирането на дискусиите в Южна Корея следващата седмица.
Група от 75 експерти допринесе за доклада, включително група, номинирана от 30 държави, Европейския съюз и ООН. Докладът, публикуван в петък, е междинен, като окончателната версия се очаква до края на годината.
Той се фокусира върху AI системи с общо предназначение, като ChatGPT на OpenAI, които могат да генерират текст, изображения и видеоклипове въз основа на подкани.
В доклада се казва, че експертите „продължават да не са съгласни по няколко въпроса, второстепенни и основни, относно способностите на ИИ с общо предназначение, рисковете и смекчаването на риска.“
Един от областите на дебат са вероятността от „рискове като широкомащабни въздействия върху пазара на труда, активирани от AI хакерства или биологични атаки, и обществото да загуби контрол над AI с общо предназначение.“
Докладът очертава редица на рисковете, включително вредите, които AI може да причини чрез фалшиво съдържание, дезинформация и измами, както и кибератаки. Той също така отбелязва пристрастията към рисковете в AI, особено в „домейни с високи залози като здравеопазване, набиране на работа и финансово кредитиране.“
Един потенциален сценарий е, че хората ще загубят контрол над изкуствения интелект, и не може да контролира технологията, дори ако може да причинява вреда.
Докладът казва, че има консенсус, че настоящата технология с общо предназначение не представлява този риск, но някои експерти смятат, че продължаващата работа за разработване на автономен AI, който може да „действа, планира и преследва цели“, може да доведе до такъв резултат.
„Експертите не са съгласни относно това колко правдоподобни са сценариите за загуба на контрол, кога могат да възникнат и как трудно би било да ги смекчим“, се казва в доклада.
